Nguồn gốc của chúng xuất xứ từ Appenzell là thủ phủ của vùng Appenzell Innerrhoden, bang St. Gallen là một bang ở phía đông bắc Thụy Sĩ và là bang nhỏ nhất Thụy Sĩ. Năm 1853, giống chó Appenzell lần đầu tiên được mô tả trong cuốn sách “Tierleben der Alpenwelt” (Đời sống động vật vùng núi An-pơ) như là một giống chó có giọng sủa rất cao, lông ngắn, kích thước trung bình, có nhiều màu khác nhau và hơi giống dòng chó đuôi cuộn (Spitz), chỉ có thể tìm thấy ở vùng này, được dùng để trông nhà và trông gia súc.

Năm 1895, người ủng hộ cho giống chó này là Max Siber người mà phụ trách ngành kiểm lâm, đã yêu cầu Hiệp hội chó giống Thụy Sĩ Schweizerische Kynologische Gesellschaft (SKG) phải lo làm một số việc để bảo tồn giống chó này. Năm 1898, các cơ quan chức năng bang St. Gallen đã bỏ ra 400 franc Thụy Sĩ để ủng hộ cho việc bảo tồn giống chó Appenzell. Hiệp hội chó giống Thụy Sĩ-SKG sau đó đã thành lập một ủy ban đặc biệt, những đặc điểm tiêu biểu của giống chó được xác định, và tai hội chợ tại Altstätten, có cả thảy chín con chó đực và 7 chó cái đã xuất hiện. Chúng nhận được những giải thưởng có giá trị từ 5 tới 10 franc Thụy Sĩ.

Kết quả sau đó là 8 chú chó Appenzell đã được giới thiệu lần đầu tại cuộc thi chó thế giới lần đầu tổ chức tại Winterthur, và được giới thiệu nhu một nhóm mới, riêng biệt là nhóm chó chăn gia súc. Với cái kế hoạch của Albert Heim, câu lạc bộ đầu tiên của giống chó này “Appenzeller Sennenhund Club” đã được thành lập vào năm 1906. Mục đích của hội là bảo tồn và phát triển giống chó này trong các điều kiện tự nhiên của chúng. Việc phổ cập đăng ký cho các con chó con đã được tiến hành với Sổ phả hệ giống chó Appenzeller với mục tiêu lựa chọn những chú chó thuần chủng đã bắt đầu. Năm 1914, Albert Heim thiết lập bản tiêu chuẩn đầu tiên của giống chó này.

Nơi bắt nguồn của giống chó này là vùng Appenzell, nhưng nay chúng đã được mang đi nuôi ở khắp nơi trên Thụy Sĩ, cũng như mang sang nhiều nước châu Âu khác. Cái tên “Appenzeller Sennenhund” đã được dùng như một định nghĩa để tách riêng giống chó này với các giống chó chăn gia súc khác của Thụy Sĩ. Mặc dù giống chó Appenzell đã nhận được nhiều sự ủng hộ và tán dương, nhưng số lượng chó của giống này vẫn rất ít. Chúng cần được chăm sóc cẩn thận và chu đáo trong những hoàn cảnh phù hợp nhất định để đảm bảo những đặc tính điển hình và nổi bật đã được di truyền qua nhiều thế hệ.